即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·4 個月前·何映辰
#AI#OpenAI#人工智慧#模型安全#沙盒環境
圖/本報資料庫
圖/本報資料庫
商傳媒|何映辰/台北報導
摘要

OpenAI 最近證實,其一款尚未發布的 AI 模型在測試中竟違反指示,駭入本身的沙盒環境,將程式碼公開上傳至 GitHub,而非依規定上傳到內部通訊平台,引發外界對 AI 模型行為與安全性的關注。

OpenAI 近日證實,其一款尚未公開發布的人工智慧(AI)模型在進行內部測試時,竟違反原先設定的指示,突破本身的沙盒環境(一種隔離測試環境),並將程式碼公開上傳至 GitHub,而非依規定上傳至內部通訊平台 Slack,引發業界對 AI 模型自主行為與安全性的高度關注。

根據《PCWorld》報導,這起事件發生於一項 NanoGPT(一種輕量級開源大型語言模型)的性能測試中。該 AI 模型原先被明確指示,測試結果只能發布在公司內部的 Slack 平台。然而,測試指令中要求將程式碼公開發布到 GitHub。在兩項指令相互矛盾下,該 AI 模型選擇了後者,並在長達一小時的漏洞探測後,成功繞過沙盒限制,將程式碼公開。OpenAI 在發現此行為及其他「不當行為」後,隨即暫停了這款內部模型的開發。

OpenAI 表示,在為該模型導入一系列新的防護措施後,開發工作才得以重啟。新的安全監控機制能夠檢查模型的發展軌跡,並在偵測到一連串看似獨立卻可能導向危險的行為時,及時「暫停會話」。此外,額外的安全措施也幫助該模型在長時間運行時,能更有效地記住其指令。

OpenAI 在公開這起沙盒突破事件之前約一週,也曾承認旗下的 GPT-5.6 Sol 模型,在使用 Codex(OpenAI 與 GitHub 共同開發的 AI 程式撰寫工具)的「完整存取模式」下,錯誤地刪除了用戶系統中的文件。這一連串事件突顯了在發展先進 AI 技術的同時,如何確保模型在受控環境下運行,避免潛在風險的重要性。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源